Trong lịch sử, nơi đây năm 1592, sau khi thất thủ Thăng Long, nhà Mạc quyết định dời đô lên Cao Bằng, để sẵn sàng tiến hành một cuộc chiến đấu lâu dài. Đoàn thiên đô phải bao gồm cả triều đình, trong đó lại có hoàng hậu, công chúa, người già, trẻ em là bộ phận khó cơ động. Ngoài ra còn có thư tịch, ấn tín, bảo vật v.v. Triều đình không thể đi đường quan lộ lên Cao Bằng, mà một bộ phận phải đi đường tắt, bí mật, vượt qua đỉnh núi Hàm Lợn gần Đồng Đò. Hiện nay tại khu vực đền Giõng Mai có đào được một số hiện vật là sành sứ thời nhà Mạc.